[セッションレポート][SPTL200] Google Cloud Next ’23時点におけるGoogle Cloudの生成系AIの新機能について学ぶ #GoolgeCloudNext

データアナリティクス事業本部 機械学習チームの鈴木です。

Google Cloud Next '23のセッション『What's new with generative AI at Google Cloud』を視聴したので感想をまとめました。

セッション概要

In this spotlight, we will explore Google Cloud’s approach to getting started with generative AI and share examples of how organizations are already working with Google Cloud to create new value for their customers and stakeholders with generative AI. Join the session to also learn about all our new announcements planned for the spaces of Machine Learning and Generative AI.

※ Google Cloud Next '23セッションページより引用

Vertex AIを中心に、Google Cloudでの生成系AIサービスの新機能について、機能・事例紹介とデモを見ることができました。現時点ではプレビュー機能を利用するために別途プログラムへの参加などが必要なものもあるため、セッションを確認することでどのようなことが実現できるのかすることができる、大変参考になる内容です。

ポイントと感じた点

個人的にポイントと感じた点に触れられればと思います。

紹介された新機能

紹介された新機能については、Opening Keynoteで発表された内容に加え一部差分がありました。

Opening Keynoteで触れられているものについては、以下のブログ記事に譲り、差分かなと思ったところについて触れます。

Codey

Streming APIとText to SQLの機能がプレビューになりました。

Vertex AI

チューニングに関する機能の紹介がありました。

テキストおよび画像モデルへのAdapter tuningが一般提供開始に、コードへのAdapter tuningとReinforcement Learning from Human Feedback（RLHF）がプレビュー提供です。

チューニングの詳細については以下のガイドが参考になります。

Model Gardenのアップデートにより、新たにLlama 2、Code Llama、Falcon LLMが追加されましたが、特にLlama 2についてAdapter tuningとRLHFの両方のチューニングに対応している点が、現状のVertex AIの特徴となっています。

Vertex AIの生成系モデル機能と利用事例

日本語話者として一番嬉しいのは、テキスト・チャット向けのPaLMの日本語対応が一般提供開始になった点だと思います。

Vertex AIの生成系モデルを使った事例としては、GitLab Duoの例が紹介されましたので触れておきます。

GitLabがVertex AIとの連携により、より強力なDevSecOpsのためのAIアシスタント導入の試みが進められていることは、発表時にDevelopersIOの記事でも取り上げていました。

AIアシスタントが導入された後の機能とワークフローについては以下のようになります。Vertex AIで作成した、GitLabが独自にチューニングした生成系モデルがアシスタントの役割を担うようです。

また、Vertex AIより手軽に使える機能として、PaLM for Chat・Codey・Imagenのデモもありました。

個人的にはあまり利用イメージがついていなかったCodeyのデモをみることができたので参考になりました。

GENERATIVE AI STUDIOから言語を選び、コード プロンプトをして画面を開きます。モデルより、使用するモデルを選んでプロンプトを送信することでレスポンスとして対応するDockerfileが生成されます。

生成系AIを使ったエンタープライズサーチによる業務改善

一般提供が開始されたVertex AI Search & Conversationについても紹介がありました。

この機能のGAについては、以下のブログでも紹介されています。

このセッションでは、特にエンタープライズサーチのユースケースとして、The World Bankが早期導入プログラムの一環として文書検索・要約による業務効率化を実践した事例についての紹介がありました。

The World Bankの業務ではナレッジマネジメントが重要なポイントで、適切なときに適切な人が適切な情報を使える必要があります。例えば、運用アナリストが業務のために複数の文書に目を通さなければならないような場合に、エンタープライズサーチ機能を利用することで大きな改善効果が見込めます。

Vertex AI Search & Conversationのデモでは、Gen App Builderからアプリを作成する例を紹介頂きました。UIからぽちぽちとするだけでアプリ作成が完了して驚きました。

特にデータソースはGCSやBigQueryをはじめ、Third-partyソースも指定可能でした。

デモはGCSの例でしたが、以下のように取り込むことができるようでした。これだけの設定でサーチエンジンが作成できるのはすごいですね。

エンタープライズサーチのガイドについては、以下が参考になります。

また、Generative AI app builderの製品ページも合わせてご覧ください。

最後に

Google Cloud Next '23のセッション『What's new with generative AI at Google Cloud』の感想でした。

Gen App BuilderからVertex AI Search & Conversationを使って、エンタープライズサーチエンジンを作成する方法については、実際にデモを見ることによって使い方のイメージがよく分かったので参考になりました。

テキスト・チャット向けのPaLMの日本語対応が一般提供開始になった点も日本語話者として非常に嬉しい機能でした。日本語対応のLLMを利用したいユースケースでは、Google Cloudの各種サービスと合わせて、PaLMが非常に強力な選択肢になると思います。